Năm 613, Tùy Dạng Đế thân chinh suất quân đến Liêu Đông tiến công Cao Câu Ly, Dương Huyền Cảm lo sợ vì Dạng Đế từng nói rằng nếu Dương Tố không chết thì sẽ có ngày bị tru di tam tộc, vì thế đã tính đến chuyện nổi dậy. Tùy Dạng Đế cho Dương Huyền Cảm đốc thúc, vận chuyển binh lương ở Lê Dương (黎陽)- gần đông đô Lạc Dương- ra mặt trận, Dương Huyền Cảm nhân cơ hội này đã tích trữ lương thực và tuyên bố nổi dậy chống lại Dạng Đế. Đồng thời, Dương Huyền Cảm bí mật phái người đến Trường An đón Lý Mật cùng em trai là Dương Huyền Đĩnh (楊玄挺). Khi Lý Mật đến, Dương Huyền Cảm cho Lý Mật làm mưu chủ, Lý Mật đề xuất ba phương án lập đổ triều Tùy:

1. "Thượng sách": Thừa cơ Dạng Đế đang viễn chính ở ngoài đất Liêu, ta đem quân lên phía bắc tấn công Kế Thành (薊城, nay thuộc Bắc Kinh) và Lâm Du (臨榆, nay thuộc Tần Hoàng Đảo, Hà Bắc), chặn đường lui của quân viễn chinh. Vì không có lương thực tiếp tế, phía trước có quân Cao Câu Ly, phía sau có quân ta trấn giữ, quân của Dạng Đế tự khắc tan vỡ, ta không cần đánh cũng giành được thắng lợi.
2. "Trung sách": Quan Trung bốn phía đều có chướng ngại, là vùng đất giàu có. Ta đem quân về phía Tây, chiếm lấy Trường An đang không phòng bị, Nếu Thiên tử kéo quân về thì ta sẽ lấy vùng Quan Trung làm căn cứ địa, dựa vào địa thế hiểm yếu mà giữ vững.
3. "Hạ sách": Đánh chiếm đông đô Lạc Dương ở gần đây, nhưng là hạ sách bởi ở đông đô còn có một số quân triều Tùy nên không chắc chắn chiếm nhanh được.

Tuy nhiên, Dương Huyền Cảm cho rằng cần công chiếm Lạc Dương để phô trương thanh thế cuộc nổi dậy của mình, vì thế đã nhận xét rằng "hạ sách" của Lý Mật chính là "thượng sách", và tiến về Lạc Dương. Đường Huy (唐褘) vốn đi theo Dương Huyền Cảm, song đã chạy về Lạc Dương, cảnh báo hoàng tôn của Dạng Đế là Việt vương Dương Đồng cùng hạ thần triều đình là Phàn Tử Cái (樊子蓋), quân Tùy do vậy đã bố trí phòng thủ đông đô. Quân của Dương Huyền Cảm tiến từ Lê Dương về Lạc Dương, có nhiều người gia nhập quân ngũ, quân số lên đến 10 vạn. Dương Huyền Cảm cùng huynh đệ giành được một vài chiến thắng, song họ không thể nhanh chóng chiếm được Lạc Dương.

Sau khi bắt được Vi Phúc Tự (韋福嗣)- một quan viên bị triều Tùy cách chức, Dương Huyền Cảm trở nên tín nhiệm Vi Phúc Tự và không còn chỉ nghe theo lời Lý Mật nữa. Tuy nhiên, các chiến lược mà Vi Phúc Tự đề xuất thể hiện rằng ông ta không toàn tâm toàn ý ủng hộ cuộc nổi dậy, Lý Mật thỉnh Dương Huyền Cảm giết Vi Phúc Tự song Dương Huyền Cảm từ chối. Lý Mật nói với thân thuộc: "Sở công muốn làm phản song không biết suy tính để giành chiến thắng. Chúng ta nay giống như rùa mắc kẹt trong bình." Khi Lý Tử Hùng (李子雄) thỉnh Dương Huyền Cảm xưng đế, Lý Mật đã khuyên can Dương rằng hành động này không thích hợp, Dương đã nghe theo và không xưng đế.

Sau đó, quan lưu thủ Trường An là Vệ Văn Thăng (衛文昇) đã đem quân đến cứu viện Lạc Dương, tướng của Dạng Đế là Lai Hộ Nhi (來護兒) cũng đem quân đến. Tùy Dạng Đế cũng phái Khuất Đột Thông (屈突通) và Vũ Văn Thuật đem quân từ Liêu Đông về trước, đội quân này cũng nhanh chóng tiến đến. Dương Huyền Cảm thua trận, và nghe theo kế của Lý Tử Hùng và Lý Mật, Dương Huyền Cảm tuyên bố giả vờ rằng tướng trấn thủ Hoằng Hóa (弘化, nay thuộc Khánh Dương, Cam Túc) là Nguyên Hoằng Tự (元弘嗣) tham gia nổi dậy cùng mình, và rằng ông tiến về phía tây để hội quân với Nguyên Hoằng Tự.

Vào mùa thu năm 613, Dương Huyền Cảm bỏ bao vây Lạc Dương và tiến về phía tây. Tuy nhiên, trên đường tiến quân, có người ở Hoằng Nông (弘農, nay thuộc Tam Môn Hiệp, Hà Nam) thuyết phục Dương Huyền Cảm rằng sẽ dễ đánh chiếm và trấn giữ Hoằng Nông. Hơn nữa, Hoằng Nông thái thú là Thái vương Dương Trí Tích (楊智積) còn cố ý sỉ nhục để chọc tức Dương Huyền Cảm. Do tức giận, Dương Huyền Cảm đã cho quân bao vây thành Hoằng Nông, bất chấp lời thỉnh cầu của Lý Mật rằng điều này sẽ khiến chiến dịch gặp nguy hiểm do tiến chậm. Dương Huyền Cảm bao vây thành Hoằng Nông ba ngày song không chiếm được, do đó phải tiếp tục tiến về phía tây. Lúc này, quân Tùy đã đuổi kịp, quân của Dương Huyền Cảm chiến bại và tan rã. Dương Huyền Cảm cùng em trai là Dương Tích Thiện (楊積善) chạy bộ đến Gia Lô Nhung (葭蘆戎, cũng thuộc Tam Môn Hiệp ngày nay), Dương Huyền Cảm bảo Dương Tích Thiện giết mình vì không muốn bị bắt, Dương Tích Thiện làm theo lời anh mình.